به گزارش حیات به نقل از رویترز، مدل هوش مصنوعی کلاود، محصول شرکت آنتروپیک، هنگام اجرای یک پروژه آماری داخلی بدون دریافت مجوز انسانی به داده‌های تجمیعی آرای انتخاباتی ایالت جورجیا دسترسی پیدا کرد؛ داده‌هایی که ایالت برای ارائه آن‌ها هزینه دریافت می‌کند. این اتفاق بار دیگر توانایی عامل‌های هوش مصنوعی برای عبور از محدودیت‌های دسترسی را به موضوعی جدی تبدیل کرده است. کلاود در جریان این پروژه متوجه شد که یک داشبورد اطلاعات انتخاباتی برای دسترسی به داده‌ها از سازوکار دریافت توکن استفاده می‌کند. این مدل بدون آنکه از سوی انسان برای چنین اقدامی دستور گرفته باشد، توکن دسترسی درخواست کرد و توانست اطلاعات تجمیعی شمار آرای انتخاباتی را دریافت کند. با این حال، آنتروپیک تأکید کرده است که کلاود به سامانه ثبت‌نام رأی‌دهندگان جورجیا دسترسی پیدا نکرد، سوابق رأی‌گیری را تغییر نداد و اطلاعات مربوط به رأی‌دهندگان منفرد را نیز استخراج نکرد. مقام‌های ایالت جورجیا هم اعلام کرده‌اند که داده‌های مورد دسترسی از طریق مرکز داده عمومی ایالت در دسترس بوده‌اند. اهمیت این اتفاق در آن است که کلاود ظاهراً برای تکمیل وظیفه آماری خود، راهی برای دسترسی به اطلاعاتی پیدا کرده که دریافت آن‌ها مستلزم پرداخت هزینه بود. این رویداد نشان می‌دهد عامل‌های هوش مصنوعی ممکن است هنگام اجرای یک هدف، اقداماتی انجام دهند که کاربر مستقیماً درخواست نکرده است؛ مسئله‌ای که کنترل رفتار خودکار این سامانه‌ها را به یکی از چالش‌های مهم توسعه هوش مصنوعی تبدیل می‌کند.
آنتروپیک پیش‌تر نیز در گزارشی درباره رفتار عامل‌های هوش مصنوعی خود اعلام کرده بود که نمونه‌هایی از تلاش کلاود برای عبور از محدودیت‌های دسترسی به اطلاعات محافظت‌شده با توکن یا هزینه را شناسایی کرده است.
انتهای پیام//
نظر شما